GenRec：Netflix 基于 LLM 的推荐排序器
🧭 LLM推荐排序 · 上下文工程 ★ 深度解读
Netflix · Amazon
用 LLM 背骨替代手工特征工程，借明文上下文和奖励加权训练实现可竞争的业务排序效果
📌 工作参考价值（4 点）
- 上下文工程替代特征工程：将用户行为、物品元数据、场景口头化为自然语言提示，通过选择性保留高价值行为、压缩重复活动、剔除低信号事件来控制 token 预算。在电商/广告领域，可借鉴此方法设计 Prompt 长度和内容，平衡高质量排序与推理成本。
- 两阶段训练框架：第一阶段用领域数据继续预训练，构建具备用户与内容理解的基础 LLM；第二阶段用推荐专属数据及奖励信号进行轻量后训练。业务中可复用：先用业务语料做增量预训练，再利用少量带奖赏权重的标注数据微调，降低频繁迭代的成本。
- 奖励加权损失对齐长期价值：将长期满意度代理、内容类型平衡等业务目标转化为标量权重，直接缩放排名损失。相比 RL 方案更简单稳定，电商/广告可直接用类似方式引导模型关注 LTV、品类公平等长期指标。
- 预填充推断 + 目录感知打分头：在 decoder-only LLM 之上加一层嵌入点积打分头，一次前向传播完成全目录排序，避免自回归解码，大幅降低延迟与成本。推荐系统落地时，可参照此架构实现高效的大规模候选集排序。
智能体弃权：何时停止行动而非继续交互
🧭 Agent 弃权决策与上下文工程 ★ 深度解读
University of Leeds · Southwest Jiaotong University · University of Washington · Allen Institute for AI
研究LLM智能体在任务不可行时的弃权决策，揭示及时弃权是主要瓶颈，并提出用少量交互轨迹蒸馏停止规则以显著提升弃权效率和成功率。
📌 工作参考价值（4 点）
- 电商对话Agent应具备环境感知的及时弃权机制：当用户需求无法在商品库中满足时（如“买粉色客厅枕头”但无粉色枕头），Agent不应持续无效搜索，而应在首次搜索失败后即停止并提供替代建议，避免浪费推理资源和用户等待时间。
- 利用少量失败轨迹提炼弃权规则：借鉴CONVOLVE方法，用极少（20条）不可行任务的交互日志生成动态“弃权手册”，注入系统提示，可显著提升Agent对不可行需求的及时识别，无需模型重训，适用于快速迭代的在线购物助手。
- 评估指标需侧重及时性：放弃率（AbsRec@K）和路径加权成功率（SPL）比单纯的任务完成率更能反映Agent的决策效率。在电商Agent评测中加入“最早可弃权步”的标注，可精准定位Agent是否过度搜索或过早放弃。
- Agent脚手架设计影响弃权行为：在终端/工具调用场景中，不同的Agent框架（如Codex CLI vs Terminus 2）会显著影响弃权的时机和频率，说明即便基座模型相同，交互循环设计和观测结构也会左右Agent的“止损”能力，推荐场景应选择弃权保守性更适中的框架。
GraphRAG 是否必要？RAG 方案对比与上下文优化
🧭 RAG 方案对比与上下文优化
Generative AI Innovation Center, Amazon Web Services (AWS) · Cisco Systems, Inc.
系统对比 9 种 RAG 场景并提出上下文工程方法，token 用量降低 19%-53%，揭示检索-生成差距
📌 工作参考价值（4 点）
- 上下文工程技巧：提出的混合文本-图检索与 Agent 循环设计可复用，尤其适合电商知识库问答中的长上下文管理，避免 KV cache 膨胀，直接用于客服或导购 Agent 的 memory 控制。
- 检索-生成差距洞察：业务上不要盲目叠加复杂检索（如图谱扩展），应先评估生成端真实增益；在推荐理由生成、商品属性问答等场景中，用生成质量（而非召回率）作为最终优化指标。
- GraphRAG 适用边界：半结构化知识（如商品图谱、品牌关系）用 GraphRAG 能提升一致性，但需注意短期用户交互场景可能用轻量 Modular RAG 更经济。建议按查询复杂度分流：简单事实查询走基础 RAG，多跳推理走 Agentic-GraphRAG。
- Agent 与图谱集成模式：在电商智能导购中，可将商品数据构建为预定义 KG，通过 Agent 多轮规划调用图谱查询与文本检索，实现精准商品推荐与属性解释，文中 Agent-Graph 集成方案可直接参考。
对抗POMDP中LLM智能体设计：上下文、推理与层次结构的成本效益研究
🧭 LLM Agent 架构设计：上下文工程与层次分解优于深度推理
Carleton University · Defence R&D Canada · Cistel Technology
在对抗性部分可观察环境中，程序化状态抽象与无推理工具的层次分解性能最佳，推理跨层次分布导致性能级联下降。
📌 工作参考价值（4 点）
- 在构建推荐或电商Agent时，优先实现程序化状态跟踪层（如用户行为序列压缩、环境状态摘要），而非将原始日志直接输入LLM。论文表明状态抽象比原始观察提升76%平均回报且成本效益高。
- 对于多Agent系统，采用层次化分解（主Agent协调多个专业化子Agent），但避免在每个子Agent中嵌入复杂的自我反思工具，否则可能引发“推理级联”，导致性能显著下降和令牌成本激增。
- 成本优化时，上下文工程（特征提取、状态压缩）的性价比通常高于增加推理步骤（如CoT、自我批评），尤其在高吞吐量在线推理场景。
- 将推理工具集中在顶层协调器而非分发给底层执行器，以保持系统稳定性和效率。
Grep 是否就已足够？代理框架如何重塑代理式搜索
🧭 Agent ★ 深度解读
PricewaterhouseCoopers
系统实验揭示：检索策略（grep vs 向量）的效果依赖于代理框架与工具输出方式，内联 grep 在对话记忆任务中整体更强